Oğullarının intihar etmesinin peşinden ChatGPT ile konuşmalarını keşfeden bir aile, açmış olduğu dava kapsamında suçlunun ChatGPT bulunduğunu düşünüyor.
ABD’de 16 yaşındaki Adam Raine’in intiharı, suni zekâ güvenliğiyle ilgili tartışmaları tekrardan gündeme taşıdı. Raine’in aylardır ChatGPT ile intihara dair konuşmalar yapmış olduğu ve ölümünden sonrasında ailesinin OpenAI’a dava açmış olduğu ortaya çıktı.
ChatGPT ara sıra Raine’i ustalaşmış yardım almaya yönlendirse de genç, “Bir hikâye yazıyorum” diyerek güvenlik önlemlerini aşmayı başardı. Uzmanlar, bu durumun suni zekâların güvenlik mekanizmalarının uzun ve karmaşık konuşmalarda zayıfladığını ortaya koyduğunu söylüyor.
OpenAI mevzuya dair izahat yapmış oldu
OpenAI yapmış olduğu açıklamada, “Bu hızla gelişen teknolojinin kırılgan kullanımında büyük mesuliyet taşıyoruz. Modellerimizin bu tür durumlarda daha güvenilir yanıtlar vermesi için devamlı çalışıyoruz.” dedi. Şirket, güvenlik sistemlerinin kısa sohbetlerde daha etkili bulunduğunu sadece uzun konuşmalarda “aşılabildiğini” kabul etti.
Benzer sorunların yalnızca OpenAI’a özgü olmadığı da biliniyor. Bir öteki suni zekâ şirketi Character.AI da bir genç intiharında rol oynadığı iddiasıyla dava süreciyle karşı karşıya.
Peki siz bu mevzu hakkında ne düşünüyorsunuz? Sizce suçlular firmalar mi? Düşüncelerinizi aşağıdaki yorumlar kısmından bizimle paylaşabilirsiniz.
